当人与机器不分你我|彼岸
远行者说
本期彼岸文章是《神机妙算》系列第三篇。该文作者是弗朗克·韦尔切克，当代最杰出的理论物理学家之一、诺贝尔奖得主。2004年因为发现量子色动力学中的渐进自由,和导师戴维·格娄斯一起获得诺贝尔物理学奖。韦尔切克教授现任麻省理工学院物理系讲席教授。他的研究兴趣广泛，涉及凝聚态物理、天体物理和粒子物理等多个研究领域。他同时出版及共同出版了4本有关物理学的科普书籍，以科学写作文笔出色著称。
边缘基金会的Edge网站给自己的定位是“将世界最聪明的头脑汇聚在一个房间中”。网站成员们的一个共同特点是,他们既是世界级的科学家和学者，又是富有才华而有趣的沟通者。韦尔切克教授就是一个很好的例子。我推荐他的这篇文章是因为它兼具科学和哲理的深度。
英国著名物理学家和小说家C.P.斯诺于1959年在剑桥大学发表了一场举世闻名的演讲——《两种文化》，在这篇演讲中，他指出了科学文化与人文文化割裂的现象。此后他将演讲整理出版为一本书，题为《两种文化与科学革命》。斯诺最著名的感叹是“整个西方社会的文化生活正被分割为两极群体”。针对科学与人文两种文化割裂的情况，斯诺先生希望“两种文化”能实现沟通对话，从而在两者之间增进了解，使“两种文化”真正的融合，逐渐演变成为“第三种文化”。斯诺的观点在此后几十年内在学术界思想界内引起持续的讨论与研究。
1995年，Edge网站的创办人约翰·布洛克曼出版了《第三种文化》一书。他回应斯诺的观察，阐述自己独特的观点，宣称一个大众的新文化已经出现了。“第三种文化包括科学家及经验世界中的其他思想家们，他们通过自己的作品和解释性写作，正逐步取代传统知识分子，向人们揭示生活的深层意义，重新定义我们是谁、我们是什么。”
布洛克曼本人花了3年的时间，采访了23位著名的科学家和作家之后，对所访谈的内容进行编辑而成此书。他指出，“科学是大新闻，而提出大问题的人正是科学家。科学家通过他们的书和文章，而成为新的大众的知识分子，成为新的大众文化的领军人物。”
从此以后的20年间，布洛克曼通过边缘基金会和Edge网站，不懈地推广他的观点，也吸引了几百位认同他理念的杰出的科学者和学者来向公众分享他们的洞见。布洛克曼是如何将这些思想家集合到一起的呢？用他本人的话说，“靠的是口碑和名声。成员都是精英不假，但Edge.org是一种好的意义上的开放精英俱乐部，入选的标准是能力。” 2015年的年度之问聚焦机器智能，从一个侧面也反映了成员们对这个充满前瞻性的问题的重视。
1.我们即他们
弗朗西斯·克里克说过一个“令人惊叹的假设”：意识，即心念，是物质自然生成的一种属性。当分子神经学科的研究不断向前推进，科学边界被打破，计算机也复制出越来越多被认为是人类智能的行为，这个假设的出现也就是必然的了。如果它成立，那么所有的智能就等同为机器智能。能够将天然智能和机器智能加以区分的，不再是这个智能属于什么，而只在于它是怎样发生的。
当然，这里说“只在于”，说起来简单，实际是很复杂的。大脑的运作靠的是一套高度并行的结构，它驱使无数嘈杂的模拟单元(比如神经元)同时工作，而大多数计算机所采用的却是冯·诺伊曼式结构，依靠的是工作速度快得多的数据单元串行运行。但二者的差异正在变得模糊，彼此融合。硅基的神经网路结构已经存在，且大脑与外部数据系统有了更为密切无间的互动。我已经感觉到，手上的笔记本电脑就是我自己的延伸——具体说来，它成了我视觉和叙事记忆的内存库，是我与外部世界的一个感官接口，也是我数学消化体系的一大组成部分。
2.他们即我们
机器智能并不是由外星人带来地球上来的。它是人类自身文化的杰作，是这一文化价值的体现。
3.理性是激情的奴隶
大卫·休谟在1738年写下了他的名句： “理性是且只应当是激情的奴隶”，那个时候人工智能还远未出现。当然，他所说的是适用于人类的理性和激情。（休谟经常用到”激情”这个词，大意指“非理性动机”。）而这一逻辑或哲学观点同样适用于人工智能。简单说来就是：动机，而非抽象逻辑，才是行为产生的动因。
这就是为什么我认为最让人恐惧的人工智能是化身于自主作战实体中的机器战士、各式各样的无人机和多种“系统”了。我们想要给这些作战实体赋予的价值是:对威胁迅速反应，有应对袭击的技能。但这种积极的价值，却会一点一点偏斜，滑向偏执和富有攻击性的另一端。若对此没有精细的把持和敏感，研究者很可能最终会发现他们创造出了一批强悍、狡诈而凶狠的魔头部队。
被动机所驱使的机器智能可能经由多种途径步入歧途，但在我看来，上述情形是最有可能发生的，这不仅因为军队本就占据着大量的资源，在机器智能领域有着许多投入，还因为他们需面临彼此竞争的压力。（换句话说，就是他们能预感到可能存在的威胁，而且随时准备迎战……）
原文来自Edge网站：
2015年Edge网站年度之问：你对会思考的机器有何看法？
http://edge.org/response-detail/26039
本系列其余文章
彼岸 神机妙算系列文章之一（第零捌壹期）：关于机器智能的自言自语
彼岸 神机妙算系列文章之二（第零捌捌期）：你干吗在乎别的机器怎么想
请关注研发客公众号，阅读以往文章。
原创文章，研发客版权，请勿转载。
如需转载请联系我们获得授权
Support@PharmaDJ.com
译者 胡小洁
彼岸——《研发客》公众号专栏
一幅画 一段按语 一篇英文摘译
回首：新药研发的峰峦叠嶂
前瞻：技术投资的机会潜力
时评：行业热点的跟踪分析
跨界：战略创新的颠覆迭代